【图一乐】本地部署deepseek

提醒:本地部署仅图一乐 模型参数量和速度远不如官方在线版 仅供离线环境、保密环境、图一乐使用 建议使用 NVIDIA 卡

用到的工具:

  1. LM Studio
  2. deepseek模型

硬件要求

GPUNEED.png
以上数据来自deepseek

如何查看自己的显存?

在Windows 10/11中,按Ctrl+Shift+Esc打开任务管理器,切换到“性能”选项卡,查看“GPU”处

常见N卡:

nvidia.png


1.安装lm studio

软件支持win、mac、linux,进入LM Studio官网 选择合适的版本下载安装即可

这里以win11为例:

1.png

上面这个页面点击右上角跳过

2.png

根据上图步骤切换中文

2.设置模型目录

3.png

根据上图步骤 选择你的磁盘,这里推荐使用固态硬盘,速度会比较快
存放模型的文件夹最好是全英文

3.存放模型文件

lm stuidio里可以直接搜索下载 这里推荐在这里选择合适的deepseek模型来下载 速度会快一些
至于原因?dddd

请将下载的模型文件存放到上一步设置的模型目录下的嵌套文件夹中。例如,若模型目录为E:\aimodel,则需在该目录下创建一个文件夹,再在该文件夹内创建一个子文件夹,最后将模型文件存入此子文件夹。
aimodel.png


做完以上步骤之后 重新启动LM studio 模型即可被正确识别
end.png
在这里选择你的模型然后根据自己的喜好微调参数就可以愉快的和ai玩耍了
end.png